LLM最大能力密度100天翻一倍!清华刘知远团队提出Densing Law
LLM最大能力密度100天翻一倍!清华刘知远团队提出Densing Law支持大模型一路狂飙的 Scaling Law 到头了? 近期,AI 圈针对 Scaling Law 是否到头产生了分歧。一派观点认为 Scaling Law 已经「撞墙」了,另一派观点(如 OpenAI CEO Sam Altman)仍然坚定 Scaling Law 的潜力尚未穷尽。
搜索
支持大模型一路狂飙的 Scaling Law 到头了? 近期,AI 圈针对 Scaling Law 是否到头产生了分歧。一派观点认为 Scaling Law 已经「撞墙」了,另一派观点(如 OpenAI CEO Sam Altman)仍然坚定 Scaling Law 的潜力尚未穷尽。
为了构建鲁棒的 3D 机器人操纵大模型,Lift3D 系统性地增强 2D 大规模预训练模型的隐式和显式 3D 机器人表示,并对点云数据直接编码进行 3D 模仿学习。Lift3D 在多个仿真环境和真实场景中实现了 SOTA 的操纵效果,并验证了该方法的泛化性和可扩展性。
这是我在11月 Prompt Engineering Conference北京场的演讲稿。这篇文章花了我非常多的心血和时间,全文大约1.3万字。祝你阅读愉快。
埃隆·马斯克 (Elon Musk) 最近将 Grok AI 的可用性扩展至每个 X 用户,几个小时后,Grok 的母公司 xAI 宣布了其最新的图像生成模型 Aurora,可从 X 上的 Grok 助手中访问。然而,在推出后的最初几个小时内,一些用户已经无法访问 Aurora,而原因目前尚不清楚。
大模型横空出世这两年,不少投资人都坐不住了。根据硅谷科技评论(SVTR)AI数据库,全球3000多家高潜力AI初创公司中,300多家公司的创始人、CEO有投资背景,标志性的例子是前YC总裁、OpenAI CEO Sam Altman以及创新工场董事长、零一万物CEO李开复。
前天 OpenAI 发布了最强的 o1 pro mode 模型,而 pricing 随之提高到了 $200/月。特工成员果断地付款后,选取了门萨IQ测试题来全面分析 o1 pro 在视觉模式识别与逻辑推理任务上的表现。
别说什么“没数据就去标注啊,没钱标注就别做大模型啊”这种风凉话,有些人数据不足也能做大模型,是因为有野心,就能想出来稀缺数据场景下的大模型解决方案,或者整理出本文将要介绍的 "Practical Guide to Fine-tuning with Limited Data" 这样的综述。
在伦敦举行的C21Media主题演讲中,OpenAI的Chad Nelson展示了即将推出的Sora v2。Sora v2提供的功能:根据演讲透露,Sora v2将“非常非常快”上线,这是现场泄露出来的一段视频
如果不用AI,一个月运营直播带货仅人工成本就要两万块钱。返乡卖大米的姚社长觉得,这个成本太高了。“两万块意味着,我要卖200袋的10斤大米,如果想用利润覆盖直播成本,基本是天方夜谭。”
2024 年 12 月 6 号加州时间上午 11 点,OpenAI 发布了新的 Reinforcement Finetuning 方法,用于构造专家模型。对于特定领域的决策问题,比如医疗诊断、罕见病诊断等等,只需要上传几十到几千条训练案例,就可以通过微调来找到最有的决策。